Pada 1948 selepas Perbicaraan Nuremberg, Tribunal Tokyo Perhimpunan Agung PBB telah mengiktiraf mahkamah tetap antarabangsa untuk menyelesaikan / membicarakan jenayah semasa Perang Dunia Kedua. Di atas permintaan Perhimpunan Agung PBB, Jawatankuasa Undang-Undang Antarabangsa telah merangka dua draf pada awal 1950-an tetapi terbantut akibat Perang Dingin.

A. N. R. Robinson yang kemudian menjadi Perdana Menteri Trinidad dan Tobago telah mengungkit semula penubuhan Mahkamah Jenayah Antarabangsa semasa Perhimpunan Agung PBB ke-44 pada 1989 kerana jenayah pengedaran dadah antabangsa semakin tidak terkawal. Kemudian mahkamah ini dibentuk secara ad hoc untuk cuba membicarakan kes jenayah bekas Yugoslavia dan Rwanda.